뉴렐릭이 인공지능(AI) 애플리케이션 개발사들의 진화하는 요구사항을 충족시키기 위해 신규 기능을 갖춘 뉴렐릭 AI 모니터링(AI Monitoring)의 정식 버전을 출시했다고 2일 밝혔다. 새로운 기능으로 실시간 사용자 피드백과 모델 비교를 통한 심층적인 AI 응답 추적 인사이트가 포함되어 있어 이용자는 데이터 보안과 개인정보 보호를 확보하는 동시에 AI 애플리케이션 성능, 품질을 개선하고 비용도 절감할 수 있다. 또한 새롭게 60개 이상의 통합 기능을 제공하는 뉴렐릭 AI 모니터링은 기업이 AI 애플리케이션 문제의 근본 원인을 신속히 파악하도록 하고 AI 도입을 촉진하며 AI의 도입과 활용에 이르기까지 모든 단계를 효과적으로 지원하는 포괄적인 솔루션이다. 뉴렐릭은 지난 해 11월 업계 최초로 AI 기반 애플리케이션용 APM 솔루션인 뉴렐릭 AI 모니터링(AI Monitoring)을 출시한 바 있다. 아르니 로페즈 뉴렐릭 최고고객책임자(CCO)는 “고객사의 CIO, CTO, 임원들과의 많은 대화를 통해 모든 기업이 AI를 활용해 비즈니스를 확장하는 방안을 모색하고 있다는 것을 확인했다”며 “기업 내 IT 및 기술 부문의 리더가 뉴렐릭을 선택하는 이유는 옵저버
매스웍스(MathWorks)는 국내 대학생들이 인공지능(AI) 기술 활용 능력을 개발하고 전문 분야별 경쟁력을 강화할 수 있도록 ‘제4회 매트랩(MATLAB) 대학생 AI 경진대회’를 개최한다고 25일 밝혔다. 대회 참가자들에게는 ‘매트랩’ 라이선스가 참가기간 동안 무료로 제공된다. 매스웍스는 지난 2021년부터 올해까지 4년째 본 대회를 통해 대학생들이 보다 쉽게 인공지능 기술을 활용해 문제를 해결할 수 있도록 소프트웨어를 지원해 왔다. 2023년에는 2022년 대비 약 2배수의 학생들이 참가해 매트랩을 통해 AI 애플리케이션 및 모델을 구현했다. 올해 행사를 주최하는 매스웍스는 보다 많은 참가자들의 참여를 독려하고 뛰어난 연구 결과를 도출해 내기 위해 상금 규모를 2배 상향했다. 최종 결선에 진출한 세 팀 중 1등에게는 200만 원, 2등 100만 원, 3등 50만 원의 우승 상금이 지급된다. 대회 심사위원들은 이번 대회에서 매트랩 및 매스웍스의 툴 활용 숙련도를 평가하고 AI의 메인 툴로서 워크플로우의 각 단계에서 매트랩의 어떤 특정 기능을 사용했는지 확인할 계획이다. 또한 올바른 사용과 연산의 타당성 평가를 통해 참가자의 기술 역량 수준을 보다 상세히
클라우드플레어는 허깅페이스에서 클릭 한 번으로 클라우드플레어의 글로벌 네트워크에 AI 애플리케이션을 배포할 수 있도록 지원한다고 밝혔다. 클라우드플레어는 워커스 AI(Workers AI)를 일반 사용자도 이용할 수 있게 됨에(General Availability, GA) 따라, 허깅페이스 허브와 통합되어 모델 배포를 지원하는 최초의 서버리스 추론 파트너가 된다. 이로써 개발자가 인프라를 관리하거나 사용하지 않는 컴퓨터 용량에 대한 비용을 지불할 필요없이 전 세계를 대상으로 빠르고 쉽고 경제적으로 AI를 배포할 수 있도록 지원한다는 방침이다. AI 혁신의 급속한 진전에도 불구하고 AI가 가진 잠재력과 기업에 선사하는 가치 사이에는 여전히 간극이 존재한다. 조직과 개발자는 GPU 또는 인프라를 설정 및 관리하거나 유지보수할 필요 없이도 합리적인 가격에 신속하게 실험하며 또 이 과정을 반복할 수 있어야 한다. 기업은 속도, 보안, 성능, 통합 가시성, 규정 준수를 지원하는 간편한 플랫폼을 통해 혁신적인 애플리케이션을 고객에게 더 빠르게 제공할 수 있어야 한다. 매튜 프린스 클라우드플레어 CEO 겸 공동 창업자는 "최근 생성형 AI 붐으로 인해 다수의 기업들이 AI
클라우데라가 기업의 데이터 경험을 혁신하는 차세대 개방형 데이터 레이크하우스를 6일 공개했다. 클라우데라의 조사에 따르면 현재 미국 기업 53%가 생성형 AI 기술을 사용하며 3분의 1 이상(36%)이 2024년 잠재적 구축을 위해 AI를 학습하는 것으로 나타났다. 호주의 경우 63%의 기업이 프로젝트 관리의 어려움을 극복하기 위한 핵심 솔루션으로 AI를 꼽았다. 하지만 많은 기업들이 분산된 데이터 인프라, 거버넌스 위험, 보안 문제 등으로 인해 데이터에 접근하거나 데이터로부터 비즈니스 가치를 창출하는 데 어려움을 겪으면서 AI 구축이 지연되고 있다. 이에 클라우데라는 프라이빗 클라우드용 아파치 아이스버그를 제공해 기업이 안고 있는 문제를 해결하고 기업용 AI 배포를 빠르게 확장해 더 큰 데이터 가치를 창출할 수 있도록 지원한다. 아파치 아이스버그는 방대한 데이터 분석 테이블을 위한 오픈소스다. 이 컴포넌트를 프라이빗 클라우드에 적용하면 기업은 클라우드와 온프레미스 모두에 존재하는 방대한 양의 필수적인 데이터에 AI를 적용해 궁극적으로 새로운 사용 사례를 창출할 수 있다. 또한 클라우데라는 완전히 분리된 대규모 언어 모델(LLM) 구축을 진행할 수 있는 기능
데이터브릭스가 AI 기반 데이터 플랫폼인 아인블릭(Einblick)을 인수한다고 5일 밝혔다. 데이터브릭스는 이번 인수를 통해 조직이 데이터 인텔리전스를 보편화하고 품질, 속도 및 민첩성을 갖춘 차세대 데이터 및 AI 애플리케이션을 개발할 수 있도록 지원한다는 방침이다. 아인블릭은 쉽게 인사이트를 도출할 수 있도록 자연어 질문을 코드, 차트 및 모델로 변환하는 최첨단 기술 분야에서 데이터 팀에 민첩한 워크플로우를 제공해 데이터를 신속하게 탐색하고 예측 모델을 구축할 수 있도록 지원한다. 또 데이터 앱을 배포하며 사용자가 자연어를 사용하여 데이터 문제를 해결할 수 있도록 한다. 알리 고드시 데이터브릭스 CEO는 "임마누엘, 필립을 비롯해 유능한 인재를 갖춘 아인블릭 팀이 데이터브릭스에 합류하게 된 것을 매우 기쁘게 생각한다"며 "데이터브릭스와 아인블릭 팀은 오늘날 조직이 성공하기 위해서는 데이터와 AI를 깊이 활용해야 한다는 공통의 가치관을 갖고 있다"고 설명했다. 이어 "앞으로 아인블릭의 혁신적인 AI 네이티브 접근방식을 데이터브릭스의 플랫폼과 통합해 조직이 데이터 인텔리전스를 보편화하고 품질, 속도 및 민첩성을 갖춘 차세대 데이터 및 AI 애플리케이션을 개
베스핀글로벌이 Data+AI MSP 서비스 '비투디투(B2D2)'를 업그레이드해 AI 애플리케이션의 구축과 운영을 위한 '비투디투 애플리케이션 스택(B2D2 Application Stack)'을 새롭게 출시했다고 1일 밝혔다. 비투디투 애플리케이션 스택은 기업이 보유한 데이터와 대규모 언어 모델(LLM) 및 자연어 이해(NLU)를 결합해 고도화된 대화형 AI 챗봇과 콜봇 생성은 물론, 고품질의 문서 작성과 관리 및 맞춤형 학습 경험을 촉진한다. 이를 통해 기업은 AI 기술을 다양한 업무 영역에 효과적으로 통합할 수 있게 됐다. 베스핀글로벌은 클라우드 뿐만 아니라 데이터와 AI, 콜 인프라 처리와 연동 등 AI 애플리케이션을 구축 및 운영에 필요한 핵심 기술을 보유하고 있다. AWS 머신러닝 컴피턴시와 데이터 및 분석 컴피턴시를 취득하는 등 다수의 데이터·AI 프로젝트 수행 경험과 전문 역량을 인정받기도 했다. 이번에 새롭게 선보인 비투디투 애플리케이션 스택을 통해 기업은 자체 정보 자산을 활용해 더욱 폭넓은 서비스 확장성을 경험할 수 있을 것으로 기대된다고 베스핀글로벌은 전했다. 비투디투 애플리케이션 스택은 크게 ▲B2D2 챗봇(ChatBot) ▲B2D2 콜
워크데이는 직장 내 인공지능(AI) 신뢰 격차가 형성되고 있다는 최신 글로벌 연구 결과를 29일 발표했다. 해당 연구 결과에서 비즈니스 리더와 직원 모두 AI가 비즈니스 트랜스포메이션을 위한 큰 기회를 제공한다는 데는 동의하지만, AI가 책임감 있게 활용될 것이라는 신뢰는 부족하며 직원들은 이에 대해 경영진보다 훨씬 더 회의적인 태도를 보인 것으로 나타났다. 연구 결과를 살펴보면 비즈니스 리더(C레벨 또는 직속보고라인)의 62%가 AI를 환영한다고 답했다. 직원들의 경우, 52%가 AI를 환영한다고 답해 리더가 응답한 수치에 훨씬 못 미치는 것으로 나타났다. 직원의 23%는 기업이 AI를 구현할 때 직원의 이익을 회사의 이익보다 우선시하는지 확신하지 못했다. 비즈니스 리더의 70%는 AI가 인간이 쉽게 검토하고 개입할 수 있는 방식으로 개발되어야 한다는데 동의한다. 42%의 직원들은 회사가 자동화할 시스템과 인간이 개입해야 하는 시스템이 무엇인지 명확하게 파악하지 못하고 있다고 생각한다. 또한 직원 4명 중 3명은 기업이 AI 규제에 협력하고 있지 않다고 응답했으며 직원 5명 중 4명은 회사가 책임감 있는 AI 활용에 대한 가이드라인을 아직 공유하지 않았다고
HPE가 생성형 AI용 엔터프라이즈 컴퓨팅 솔루션 개발을 위한 엔비디아(NVIDIA)와의 협력을 확대한다고 18일 밝혔다. HPE는 양사가 공동 설계한 사전 구성 형식의 AI 튜닝 및 추론 솔루션을 기반으로, 다양한 규모의 기업들이 프라이빗 데이터를 활용해 파운데이션 모델을 신속하게 맞춤화 할 수 있게 됐다고 전했다. 또한 엣지에서 클라우드에 이르기까지 어디서나 프로덕션 애플리케이션을 배포할 수 있으며 기업들은 HPE와 엔비디아의 풀스택 AI 튜닝 및 추론 솔루션이 포함된 포트폴리오를 통해 생성형 AI 인프라 개발과 배치 과정에서 발생하는 복잡성을 줄일 수 있다고 설명했다. 기업은 대화형 검색, 비즈니스 프로세스 자동화, 콘텐츠 생성 등을 위한 생성형 AI 모델을 개발하고 배포하기 때문에 필요한 곳에 신속하게 구축할 수 있는 소프트웨어 및 인프라 스택이 필요하다. 이에 HPE와 엔비디아는 파트너십 확대의 일환으로 획기적인 풀스택 AI 솔루션인 신규 생성형 AI용 엔터프라이즈 컴퓨팅 솔루션을 선보인다. 해당 솔루션은 엔비디아 네모(NVIDIA NeMo) 프레임워크를 포함한 엔비디아 AI 엔터프라이즈 소프트웨어 제품군과 HPE MLDE 소프트웨어, HPE 에즈메
버티브(Vertiv)는 인텔과 협력해 내년 출시 예정인 혁신적인 신형 인텔 가우디3 인공지능(AI) 가속기를 지원하는 액체 냉각 솔루션을 제공한다고 14일 밝혔다. AI 애플리케이션과 고성능 컴퓨팅(HPC)은 더 많은 양의 열을 방출하기 때문에 보다 효율적이고 친환경적인 냉각 방식을 도입하기 위해 액체 냉각 솔루션으로 전환하는 기업이 점점 더 많아지고 있다. 인텔 가우디3 AI 가속기는 수냉식 및 공랭식 서버를 모두 지원하며, 버티브 P2P(pumped two-phase) 냉각 인프라를 통해 지원될 예정이다. 이 액체 냉각 솔루션은 17°C~45°C(62.6°F~113°F)의 시설 용수를 사용해 최대 160kW의 가속기 전력까지 테스트를 마쳤다. 공랭식 솔루션은 실내 공기 온도가 최대 35°C(95°F)인 데이터센터에 구축할 수 있는 40kW의 열 부하에 대해 테스트를 마쳤다. 이 중간 압력 다이렉트 P2P 냉매 기반 냉각 솔루션은 고객이 열 재사용, 온수 냉각, 프리쿨링(free air cooling) 냉각을 구현함과 동시에, 전력 사용 효율(PUE), 용수 사용 효율(WUE) 및 총 소유 비용(TCO)을 낮출 수 있도록 한다. 버티브의 글로벌 항온항습 사
알리바바 클라우드는 자체 개발한 거대언어모델(LLM) '통이치엔원(Tongyi Qianwen)'의 720억 개 파라미터 버전 '큐원(Qwen)-72B'와 18억 개 파라미터 버전인 '큐원-1.8B'을 자사AI 모델 커뮤니티 '모델스코프'와 협업 AI 플랫폼 '허깅페이스'에 오픈소스로 공개했다고 5일 밝혔다. 징런 저우알리바바 클라우드 CTO는 "오픈소스 생태계를 구축하는 것은 LLM 및 AI 애플리케이션 개발에 매우 핵심적인 일"이라며 "알리바바 클라우드는 가장 개방적인 클라우드로서 모든 사람이 생성형 AI 역량을 활용할 수 있도록 하는 것을 목표로 한다"고 말했다. 그는 이어 "이러한 목표를 달성하기 위해 자사의 최첨단 기술을 공유하고 파트너들과 함께 오픈소스 커뮤니티의 발전을 촉진해 나갈 것"이라고 밝혔다. 큐원-72B은 3조 개 이상의 토큰으로 사전 학습돼 주요 오픈소스 모델들을 10가지 벤치마크 부문에서 초월한다. 대표적으로 앞선 벤치마크 부문은 대규모 다중작업 언어이해(MMLU, Massive Multi-task Language Understanding), 코드 개발 역량 테스트인 휴먼이발(HumanEval) 및 수학 문제를 푸는 GSM8K 등이 있
퓨어스토리지가 인공지능(AI) 활용사례를 위한 포트폴리오를 강화하고, 글로벌 AI 구축 전반에서 견실한 고객 모멘텀을 이어가고 있다고 28일 밝혔다. 퓨어스토리지는 기업용 데이터 스토리지 공급업체 중 최초로 엔비디아(NVIDIA)의 DGX 베이스포드(BasePOD) 인증을 획득하고, 시스코와 함께 새로운 플래시스택용 CVD(Cisco Validated Design; 시스코 검증 설계)를 제공한다. 이를 통해 기업들이 새로운 AI 애플리케이션을 지원해 현대적이고 확장 가능한 비즈니스 성과를 달성할 수 있도록 데이터에 대한 효율적이고 안정적인 접근성을 지속적으로 제공하고 있다. 퓨어스토리지는 포괄적인 데이터 스토리지 플랫폼을 갖췄다. 데이터 큐레이션부터 모델 트레이닝, 추론에 이르기까지 AI 프로세스의 모든 단계에서 기업의 AI 도입 단계에 관계없는 효율성과 성능을 제공한다. 또한 고객이 모든 규모의 AI 이니셔티브를 추진할 수 있도록 지원하며, 필요에 따라 유연하게 확장할 수 있도록 설계된 데이터 스토리지를 제공한다. 아제이 싱 퓨어스토리지 최고제품책임자(CPO)는 "퓨어스토리지는 설립 초기부터 AI의 급격한 부상을 예상하고 업계가 AI기술을 활용하고 방대한
HPE가 생성형 AI를 위한 슈퍼컴퓨팅 솔루션을 발표했다. 이 솔루션은 대기업, 연구기관 및 정부 기관을 대상으로 한 생성형 AI에 최적화됐으며 이를 통해 프라이빗 데이터 세트를 활용해 인공지능(AI) 모델의 훈련과 조정을 효율적으로 가속화할 수 있다. HPE의 슈퍼컴퓨팅 솔루션은 소프트웨어 제품군을 통해 고객이 AI 모델을 훈련하고 조정하며 AI 애플리케이션을 개발하는 데 도움이 되는 기능을 한다. 아울러 수냉식 슈퍼컴퓨터, 가속 연산, 네트워킹, 스토리지, 서비스를 포함해 기업이 AI의 가치를 신속하게 실현할 수 있도록 종합적인 지원을 제공한다. 저스틴 호타드 HPE 수석 부사장 겸 HPC·AI & Labs 총괄은 "세계 유수의 기업과 연구소들은 AI 모델의 훈련과 조정을 통해 연구 분야에서 혁신을 이끌어 내고 있으며, 이를 효과적이고 효율적으로 수행하기 위해서는 목적에 맞게 구축된 솔루션이 필요하다"며 "생성형 AI를 활용하기 위해 기업 및 기관들은 지속가능한 솔루션을 사용하고 슈퍼컴퓨터에 최적화된 성능과 규모를 기반으로 AI 모델 훈련을 지원해야 한다"고 말했다. 이어 "HPE는 엔비디아와의 협력을 확대해 고객이 AI 모델 훈련과 성과 달성을
기업 맞춤 생성형 AI 개발과 튜닝 강화하는 엔드 투 엔드 솔루션 제공 엔비디아가 마이크로소프트 애저(Microsoft Azure)에 AI 파운드리 서비스를 제공한다고 밝혔다. 이는 스타트업을 포함한 기업들에게 맞춤 생성형 AI 애플리케이션의 개발과 튜닝 강화를 제공한다. 엔비디아 AI 파운드리 서비스는 ▲엔비디아 AI 파운데이션 모델 ▲엔비디아 네모 프레임워크 ▲엔비디아 DGX 클라우드 AI 슈퍼컴퓨팅 서비스를 통합해 기업이 맞춤 생성형 AI 모델을 제작할 수 있는 엔드 투 엔드 솔루션을 제공한다. 이를 통해 기업들은 지능형 검색, 요약, 콘텐츠 생성 등을 지원하는 생성형 AI 애플리케이션의 구동을 위해 엔비디아 AI 엔터프라이즈 소프트웨어와 함께 맞춤형 모델을 배포할 수 있다. 업계 선두주자인 SAP SE, 암독스(Amdocs), 게티 이미지는 해당 서비스를 사용해 맞춤형 모델을 구축하고 있다. 젠슨 황 엔비디아 창립자 겸 CEO는 "기업들은 각 기업의 고유한 DNA, 즉 데이터를 기반으로 훈련된 전문 기술을 수행하기 위한 맞춤형 모델이 필요하다"며 "엔비디아 AI 파운드리 서비스는 엔비디아의 생성형 AI 모델 기술, 대규모 언어 모델(LLM) 트레이닝
슈퍼마이크로컴퓨터가 AI 및 HPC 랙 공급량과 최신 수냉식 냉각 솔루션을 강화한다고 16일 밝혔다. 슈퍼마이크로는 랙 스케일 AI 및 HP 솔루션 포트폴리오에 대한 수요 증가에 맞춰 미국, 대만, 네덜란드, 말레이시아의 최첨단 통합 시설에서의 생산량을 늘리며, 향후 제조 및 지역 확장을 고려하고 있다. 찰스 리앙 슈퍼마이크로 사장 겸 CEO는 "슈퍼마이크로는 전 세계에 위치한 자사 시설을 통해 월 5000여 개의 랙을 생산 가능하며, 그로 인해 랙당 최대 100kW가 필요한 완전 통합형 수냉식 냉각 랙에 대한 증가하는 수요를 지원하게 됐다"며 "AI 및 하이퍼스케일 데이터 센터의 설계 및 구축 프로세스 초기에 완전한 랙 스케일 솔루션과 수냉식 냉각 솔루션을 고려한다면, 긴급한 구축 요건을 충족하는 데 걸리는 시간을 단축한다"고 말했다. 슈퍼마이크로는 대규모의 '골든 SKU' 재고를 보유하며, 그로 인해 최첨단 AI 애플리케이션을 구동하는 대규모 CSP 및 엔터프라이즈 데이터 센터에 대한 글로벌 배송 시간을 단축할 예정이다. 데이터 센터부터 엣지(IoT)까지 슈퍼마이크로의 광범위한 서버는 원활한 통합이 가능해 도입 및 참여 고객이 많다고 슈퍼마이크로는 밝혔다
학생, 애호가 및 상업용 개발자 위한 Arm 기반 라즈베리 파이 제품 출시 Arm홀딩스와 라즈베리 파이는 Arm이 라즈베리 파이에 전략적 투자를 이행할 것을 합의했다고 발표했다. 이를 통해 Arm은 라즈베리 파이의 소수 지분을 인수해 사물 인터넷(IoT) 개발자 커뮤니티를 위한 핵심 솔루션을 제공하기 위해 협력하는 양사 간의 성공적인 장기적 파트너십을 확대했다. 복잡한 IoT와 AI 애플리케이션의 확산으로 엣지 컴퓨팅에 대한 수요가 가속화함에 따라, 라즈베리 파이의 솔루션은 전 세계 기업에 저비용 및 고성능 컴퓨팅의 이점을 제공하고 있다. 이번 투자로 2008년부터 시작된 양사의 파트너십이 공고해졌으며, 학생, 애호가 및 상업용 개발자를 위한 Arm 기반의 라즈베리 파이 제품이 출시됐다. 라즈베리 파이의 가장 최근 주력 제품으로는 10월 말에 출시된 '라즈베리 파이 5'가 있다. Arm의 수석 부사장 겸 IoT 사업부 총괄 매니저인 폴 윌리엄슨(Paul Williamson)은 “Arm과 라즈베리 파이는 혁신의 장벽을 낮춰 누구나, 어디서나 새로운 IoT 솔루션을 배우고 경험하고 만들도록 해 모든 사람이 컴퓨팅에 액세스할 수 있도록 한다는 비전을 공유한다”고